1. Точност, прецизност, грешка

    а) измерване - сравняване с някакъв еталон

    • точност на резултата - степента, до която измереният резултат се доближава до реалната стойност
    • прецизност на измерването - степента, до която измерените резултати съвпадат едни с други
    • грешка - разликата между реалната и измерената стойност; натрупва се винаги в последната цифра от резултата

    precision_accuracy

  2. Значещи цифри - цифрите в мантисата на резултата, записан в научен запис

    а) умножение и деление - резултатът се записва с толкова значещи цифри, колкото има най-неточният операнд

    б) събиране и изваждане - резултатът има толкова цифри след десетичната запетая, колкото има операндът с най-малко цифри след запетаята

    в) закръгляване - само накрая

    При използване на повече от необходимото значещи цифри се трупа излишна грешка!

  3. Дименсионен анализ - извършване на математически действия с мерни единици